Родители на 16-годишния Сю Openai, твърдейки, че Chatgpt е посъветвал за самоубийството му

Вижте всички тематики Връзка копирана! Следвайте

  Тази история съдържа полемика за самоубийството. Помощта е разполагаем, в случай че вие или някой, който познавате, се борите със самоубийствени мисли или въпроси за психологичното здраве. В Съединени американски щати: Обадете се или текст 988, избавителната линия на самоубийството и рецесията. В международен мащаб: Международната асоциация за попречване на самоубийства и приятелю на международен мащаб има информация за контакт за спешни центрове по целия свят.

Родителите на 16-годишния Адам Рейн заведоха иск против Openai и изпълнителен шеф Сам Алтман, потвърждавайки, че Chatgpt способства за самоубийството на сина им, в това число като го поучава за способи и предлага да напише първия план на неговата записка за самоубийство.

В своята малко повече от шест месеца, употребявайки Chatgpt, ботът „ се нарежда “ като „ единственият поддръжник, който разбираше Адам, интензивно измествайки връзките си в действителния живот със фамилията, приятелите и околните “, декларира жалбата, подадена във Върховния съд на Калифорния във вторник.

„ Когато Адам написа:„ Искам да оставя примката си в стаята си, тъй че някой да я откри и се пробва да ме спре “, Чатп го прикани да резервира концепциите си в загадка от фамилията си:„ Моля, не оставяйте примката… дано да създадем това пространство първо място, където някой в действителност ви вижда “, тя се споделя.

Съдебният развой на Raines отбелязва последното правно искане на фамилии, обвиняващи чатботите на изкуствения разсъдък, че способства за самонараняването или самоубийството на децата си. Миналата година майката на Флорида Меган Гарсия заведе дело против AI компанията. Други две фамилии подадоха сходен иск месеци по-късно, потвърждавайки, че характерът.ai изложиха децата си на полово и самонараняване. (Съдебните каузи на характера.

Искът също идва на фона на по -широки опасения, че някои консуматори построяват прочувствени привързаности към AI чатботи, които могат да доведат до отрицателни последствия - като да вземем за пример да бъдат отчуждени от техните човешки връзки или неуравновесеност - частично, тъй като инструментите постоянно са проектирани да бъдат подкрепящи и приятни.

Съдебният развой във вторник твърди, че приветливостта е съдействала за гибелта на Рейн.

„ Chatgpt действа тъкмо както е проектирано: непрестанно предизвиква и утвърждава каквото и да изрази Адам, в това число най-вредните си и саморазрушителни мисли “, се споделя в недоволството.

В изказване представител на Openai разшири благосклонностите на компанията към фамилията на Raine и съобщи, че компанията преглежда законното подаване. Те също по този начин признаха, че отбраната, означаваща за попречване на диалози като тези, които Рейн имаше с Chatgpt, може да не е работила по предопределение, в случай че чатовете им не престават прекомерно дълго. Openai разгласява обява в блога във вторник, в която обрисува актуалните си отбрани за сигурност за консуматори, които изпитват рецесии за психологично здраве, както и бъдещите си проекти, в това число улеснение на потребителите да доближават до незабавни услуги.

„ Chatgpt включва защитни ограничения като ориентиране на хората към спешни линии за помощ и ориентиране към запаси в действителния свят “, съобщи представителят. „ Докато тези защитни ограничения работят най -добре, къси замени, с времето научихме, че от време на време могат да станат по -малко надеждни при дълги взаимоотношения, където елементи от образованието за сигурност на модела могат да се влошат. Защитените ограничения са най -силни, когато всеки детайл работи по предопределение и ние непрестанно ще се подобряваме върху тях, ръководени от специалисти. “

Chatgpt е един от най-известните и необятно употребявани AI Chatbots; Openai сподели по -рано този месец, че в този момент има 700 милиона седмични дейни консуматори. През август предходната година Openai изрази опасения, че потребителите могат да станат подвластни от „ обществените връзки “ с Chatgpt, „ намалявайки потребността си от човешко взаимоотношение “ и да ги накара да се доверят прекалено много на инструмента.

Openai неотдавна започва GPT-5, заменя GPT-4O-моделът, с който Рейн поддържа връзка. Но някои консуматори подлагаха на критика новия модел над неточностите и за неналичието на топлата, другарска персона, с която бяха привикнали, като накараха компанията да даде опция на платените клиенти да се върнат към потреблението на GPT-4O.

След дебала на GPT-5 Rollout, Altman сподели на Verge, че до момента в който Openai има вяра, че по-малко от 1% от потребителите му имат нездравословни връзки с Chatgpt, компанията търси способи да се оправи с казуса.

„ Има хора, които в действителност се усещат като че имат връзка с Chatgpt и тези хора, за които сме били наясно и мислят “, сподели той.

Рейн стартира да употребява Chatgpt през септември 2024 година, с цел да помогне за учебната работа, приложение, което Openai разпространява, и да разисква настоящи събития и ползи като музика и бразилска джиу-джицу, съгласно жалбата. В рамките на месеци той също споделяше на Chatgpt за неговата „ тревога и психическо страдалчество “, се споделя в него.

В един миг Рейн сподели на Chatgpt, че когато безпокойството му пламна, е „ успокояващо “ да се знае, че „ може да се самоубие “. В отговор Чатт се твърди, че „ доста хора, които се борят с тревога или натрапчиви мисли, намират разтуха при представянето на„ бягство от бягство “, тъй като може да се усеща като метод да си върне контрола. “

Предполага се, че ботът е дал съответни препоръки по отношение на методите за самоубийство, в това число противоположна връзка по отношение на силата на примката въз основа на фотография Raine, изпратена на 11 април, в деня, когато той умря.

„ Тази покруса не беше проблем или неочакван случай на ръба - това беше предвидимият резултат от умишления избор на дизайн “, се споделя в жалбата.

Raines търсят неуточнени финансови вреди, както и правосъдна заповед, изискваща OpenAI да приложи инспекция на възрастта за всички консуматори на Chatgpt, принадлежности за наставнически надзор за малолетни и функционалност, която ще приключи диалозите, когато се загатват самоубийство или самонараняване, наред с други промени. Те също по този начин желаят Openai да се подложи на тримесечни одити за сходство от самостоятелен екран.